Khởi sự từ năm 1048 từ các nhà buôn từ quốc gia cổ Amlfi được chính quyền tại Ai Cập cho phép xây nhà thờ, tu viện và bệnh viện tại Jerusalem, với mục đích chăm lo cho khách hành hương đến từ mọi chủng tộc không phân biệt tôn giáo. Dòng Thánh Gioan tại Giêrusalem trở thành một cộng đoàn đan tu điều hành và mở các bệnh viện cho khách hành hương tại Đất Thánh, trở thành độc lập và dưới sự điều khiển của vị sáng lập là Chân Phước Gérard. Giáo hoàng Pascalê II chuẩn y trong một sắc Lệnh ký ngày 15 tháng 11 năm 1113. Lúc đó tất cả các thành viên là tu sĩ với ba lời khấn: vâng lời, khiết tịnh và khó nghèo. Về sau vì để bảo vệ cho khách hành hương, dòng đã biến thành lực lượng bảo vệ và tham chiến trong những cuộc Thập Tự Chinh, từ đó biến thành Đoàn Hiệp Sĩ. Các hiệp sĩ dòng này đã đeo một biểu tưởng là cây Thánh Giá tám cạnh tượng trưng cho tám mối phúc thật và huy hiệu ấy vẫn còn sử dụng cho đến ngày nay.

Rhodes

Năm 1291, khi lực lượng trấn thủ Thánh Địa cuối cùng của dòng bị quân Hồi giáo đánh bại, họ đã quyết định rút quân về đảo Síp vào năm sau đó rồi đi chuyển đến với vị thủ lĩnh Fra Fouques de Villare tại đảo Rhodes. Tại đây, các hiệp sĩ đã tổ chức thành lực lượng hải quân và xây dựng một thành trì kiên cố bên bờ biển phía đông Địa Trung Hải để bảo vệ Kitô hữu trước các cuộc tấn công của các tàu chiến từ biển vào. Lực lượng này không chịu sự chỉ huy của bất kỳ quốc gia nào trong vùng, họ chỉ phục tùng lệnh của Giáo hoàng. Họ đã đánh nhiều trận ác liệt và nổi danh nhất trong thời kỳ bắt bớ và tử đạo, ví dụ như Thập tự chinh tại Syria và tại Ai Cập.

Đến đầu thế kỷ 14, tất cả các hiệp sĩ của dòng từ khắp châu Âu đã quy tụ về Rhodes để lập thành nhóm theo ngôn ngữ của họ. Ban đầu chỉ có bảy nhóm ngôn ngữ là Provence, Aubengne, Pháp, Ý, Aragon, Anh (gồm cả Scotland và Ireland), Đức. Đến năm 1492, nhóm Aragon chia làm hai nhóm là Castille và Bồ Đào Nha. Mỗi nhóm đều có vị thủ lĩnh riêng nhưng tất cả đều dưới quyền thủ lĩnh của Đại thống lĩnh tước hiệu là Thái tử thành Rhodes. Họ được Giáo hoàng cấp quy chế tổ chức quân lực, được đúc tiền và ngoại giao với các quốc gia khác.

Malta

Năm 1523, đoàn hiệp sĩ thất thủ trước lực lượng Sultan sau sáu tháng giao chiến ác liệt và phải rời đảo Rhodes. Họ bị phân tán vì không có đất dụng võ, mãi cho tới năm 1530, khi Đại thống lĩnh Fra Philippe de Villiers de I'Isle Adam chiếm được đảo Malta thì họ mới được quy tụ lại. Cuộc Cải cách Kháng Cách xảy ra làm phân rẽ thành Giáo hội Công giáo và Tin Lành khiến cho dòng bị giải thể tại những quốc gia ủng hộ cải cách như Anh, Scotland. Còn tại Hà Lan, Đức và Thụy Điển, dòng phải biến đổi thành chi dòng trung lập trong bất kỳ cuộc chiến tranh nào giữa các quốc gia Kitô giáo.

Năm 1565, Đại thống lĩnh Fra 'Jean de la Vallette (thủ đô của Valletta của Malta ngày nay được đặt theo tên ông) chỉ huy các hiệp sĩ bảo vệ hòn đảo này trước cuộc vây hãm của quân Ottoman trong suốt hơn ba tháng. Trong trận Lepanto năm 1571, đoàn hiệp sĩ Malta đã góp quân vào liên minh hùng mạnh nhất ở Địa Trung Hải dưới sự chỉ huy của Don Juan nước Áo để đánh bại hoàn toàn lực lượng hải quân Ottoman.

Lưu vong

Sau hai thế kỷ thành lập, vào năm 1798, Napoleon Bonaparte chiếm được hòn đảo Malta trong chiến lược tiến tới Ai Cập. Mặc dù Hiệp ước Amiens 1802 có điều khoản cho Anh sơ tán Malta để khôi phục dòng Hiệp sĩ Malta, chủ quyền đảo này thuộc về các cường quốc châu Âu nhưng Bonaparte không thực hiện. Anh tuyên chiến với Pháp vào ngày 18 tháng 5. Vì luật của các hiệp sĩ là không được dùng vũ khí để sát hại Kitô hữu nên họ buộc phải rời Malta.

Roma

Sau khi tạm thời rút về Messina, Catania và Ferra, năm 1834, đoàn Hiệp sĩ về đóng quân vĩnh viễn tại Roma trên đồi Aventine. Kể từ đó, tổ chức này gần như không còn có các hoạt động quân sự mà chuyên tâm hoạt động bác ái, từ thiện. Đoàn đã hoạt động mạnh mẽ hơn trong Thế chiến thứ I và II dưới quyền thủ lĩnh của Fra Ludovico Chigi Alban delă Rovere và dưới thời của Fra Angelo de Mojana di Cologna (1962-1988)